Във Великобритания виждат кибер рискове зад изкуствения интелект
Британски чиновници предизвестяват организациите за интегрирането на ръководени от изкуствен интелект чатботове в техния бизнес, заявявайки, че проучванията от ден на ден демонстрират, че те могат да бъдат подмамени да извършват нездравословни задания.
Британският народен център за киберсигурност (NCSC) каза, че специалистите към момента не са се справили с евентуалните проблеми със сигурността свързани с новаторската технология.
Задвижваните от изкуствен интелект принадлежности стартират да се употребяват като чатботове, които някои плануват да изместят освен търсенията в интернет, но и работата по обслужване на клиенти и продажби.
NCSC сподели, че това може да носи опасности, особено в случай че такива модели са включени в бизнес процесите на други детайли на организацията. Академици и откриватели неведнъж са намирали способи да манипулират чатботовете, като им подават лъжливи команди или ги заблуждават да заобикалят личните си вградени защитни огради.
Например, задвижван от неестествен интелект чатбот, внедрен от банка, може да бъде подмамен да извърши неодобрена транзакция, в случай че хакер структурира поръчката си вярно.
" Организациите, изграждащи услуги, които употребяват огромни езикови модели (LLM) трябва да бъдат деликатни, по същия метод, по който биха били, в случай че употребяват артикул или кодова библиотека, която е в бета версия ", сподели NCSC, като се базира на пробни версии на програмен продукт.
" Те може да не разрешат на този артикул да взе участие в осъществяването на транзакции от името на клиента и да се надяваме, че няма да му се доверят изцяло. "
Британският народен център за киберсигурност (NCSC) каза, че специалистите към момента не са се справили с евентуалните проблеми със сигурността свързани с новаторската технология.
Задвижваните от изкуствен интелект принадлежности стартират да се употребяват като чатботове, които някои плануват да изместят освен търсенията в интернет, но и работата по обслужване на клиенти и продажби.
NCSC сподели, че това може да носи опасности, особено в случай че такива модели са включени в бизнес процесите на други детайли на организацията. Академици и откриватели неведнъж са намирали способи да манипулират чатботовете, като им подават лъжливи команди или ги заблуждават да заобикалят личните си вградени защитни огради.
Например, задвижван от неестествен интелект чатбот, внедрен от банка, може да бъде подмамен да извърши неодобрена транзакция, в случай че хакер структурира поръчката си вярно.
" Организациите, изграждащи услуги, които употребяват огромни езикови модели (LLM) трябва да бъдат деликатни, по същия метод, по който биха били, в случай че употребяват артикул или кодова библиотека, която е в бета версия ", сподели NCSC, като се базира на пробни версии на програмен продукт.
" Те може да не разрешат на този артикул да взе участие в осъществяването на транзакции от името на клиента и да се надяваме, че няма да му се доверят изцяло. "
Източник: dnesplus.bg
КОМЕНТАРИ